Anticamente la pistola aveva un ruolo completamente diverso da quello attuale: nata infatti come arma offensiva, ben presto assunse la funzione prevalentemente difensiva che conserva ancora oggi.
Una leggenda vuole che il termine pistola derivi dalla città italiana di Pistoia, dove abitava l'armaiolo Vettelli, che nel 1540 avrebbe realizzato la prima pistola. In realtà, armi corte da fuoco sono segnalate nelle cronache fin da 200 anni prima; anche se la pistola cominciò a diffondersi solo verso la fine del Cinquecento, quando iniziò a essere utilizzata dalla cavalleria. Essa consentì infatti ai cavalleggeri di rispondere al fuoco degli archibugi , di avanzare e attaccare con le proprie armi da fuoco, sfruttando appieno la loro superiore mobilità. Ai primi del Seicento questi cavalieri armati di pistola, chiamati appunto "pistoletti", comparvero in Italia; ma già nel 1544 dei cavalieri tedeschi avevano usato le proprie pistole con notevole efficacia contro le forze francesi. Proprio grazie all'impiego di questo tipo di arma la cavalleria poté perfezionare una speciale tecnica d'attacco, il caracollo, in cui i reparti riuscivano a sviluppare un'azione di fuoco continua.
Tuttavia, già verso la metà del Seicento l'incremento della portata utile delle armi lunghe della fanteria relegò la pistola alla sua attuale funzione di arma difensiva, utilizzabile con una sola mano. E in questo confronto emerse anche un altro limite, inevitabile per un'arma ad avancarica: lo scarso volume di fuoco; problema che si cercò di risolvere in vario modo, partendo dall'ovvio espediente di moltiplicare il numero delle canne, che diventarono due, quattro o anche di più. Furono anche prodotte in piccola quantità armi nelle quali un tamburo a più camere veniva fatto ruotare manualmente, come accadeva nella pistola brevettata dall'ingegnere americano Collier nel 1818.
Il primo grande progresso in questa direzione fu fatto con l'introduzione della pistola a rotazione, meglio nota come revolver; in questo modello un tamburo a cinque o sei camere ruota meccanicamente, portando le camere contenenti le pallottole una dopo l'altra in asse con la canna, in modo da consentire l'esplosione di un certo numero di colpi in rapida successione. Tradizionalmente l'invenzione del revolver moderno è attribuita allo statunitense Samuel Colt (1814-1862), che nel 1835 ne brevettò uno in Inghilterra, a cinque colpi, ad avancarica, con accensione a capsula a percussione. Dopo varie vicissitudini, nel 1845 Colt riuscì a vendere le proprie armi all'esercito USA e nel 1851 iniziò la produzione in massa.
Il revolver conobbe larghissima diffusione nel corso della guerra civile americana (1861-1865). E a seguito dei progressi tecnici furono introdotte due importanti novità: la cartuccia metallica e la retrocarica. Il revolver assumeva così un aspetto molto simile a quello attuale, tanto è vero che il più famoso revolver di questo tipo, la Colt 1873 Peacemaker ad azione singola, è ancora oggi prodotto.
Dopo una serie di tentativi poco fortunati, nel 1893 nacque la pistola semiautomatica, a opera dell'armaiolo tedesco Hugo Borchardt (1815-1921). Da quel modello derivò una delle pistole più famose, la Luger, adottata dall'esercito tedesco come arma da fianco standard nel 1908. La pistola semiautomatica sfrutta la forza del rinculo per camerare uno dopo l'altro i colpi prelevati da un caricatore verticale a molla. Una volta che il colpo è in canna diversi tipi di sicura impediscono al percussore di raggiungere il fondello della munizione provocando spari accidentali.
Esistono svariati sistemi di funzionamento e chiusura dell'otturatore , in parte dipendenti dal tipo e dalla potenza della cartuccia. I calibri variano dal 5,6 mm fino agli 11,43 mm, ma oggi il 9 mm parabellum si è affermato come calibro standard per le pistole militari, anche se negli Stati Uniti si continua a utilizzare il tradizionale 11,43 mm (0,45 pollici), più lento e pesante. D'altra parte, anche le forze armate statunitensi hanno finito per abbandonare il vecchio 0,45 pollici, avendo adottato ormai da alcuni anni l'italiana Beretta 92, in calibro 9 mm. Nei revolver i calibri più diffusi restano i potenti 0,38, 0,357 Magnum e .0,44 Magnum.
Nel corso dei due conflitti mondiali i belligeranti usarono sia revolver sia pistole semiautomatiche. L'esercito inglese, per esempio, rimase fedele ai revolver Webley, mentre nell'esercito tedesco alla costosa e delicata pistola semiautomatica Luger si affiancò la Walther P-38, un'arma sorprendentemente semplice e moderna. L'impiego effettivo di pistole e revolver fu peraltro molto limitato, anche perché le distanze pratiche di ingaggio con le armi corte sono minime, poche decine di metri al massimo. E le statistiche confermano che poche furono le vittime delle armi corte in rapporto al numero di pistole e rivoltelle in circolazione. Si diffuse invece molto rapidamente un derivato della pistola semiautomatica, la pistola mitragliatrice , un'arma in genere capace del solo tiro automatico e che usava le stesse munizioni delle pistole.
Le pistole mitragliatrici apparvero nel corso della prima guerra mondiale, il primo modello, la Villar Perosa, fu messo a punto dall'italiano Revelli che la brevett├▓ nel 1914. L'arma era concepita per l'aeronautica, ma fu presto adattata per la fanteria. Le pistole mitragliatrici furono ampiamente utilizzate nel corso della seconda guerra mondiale. Armi come l'MP-38/40 tedesca o il PPSH sovietico erano una via di mezzo tra i fucili e le pistole, ma erano capaci di un grande volume di fuoco grazie all'elevata cadenza di tiro e alla considerevole scorta di munizioni contenute nei caricatori. Il tiro utile era comunque limitato ai 50-100 m e lo spreco di munizioni elevatissimo.
Il dopoguerra ha visto la lenta ma costante affermazione della pistola semiautomatica sul revolver, almeno nell'impiego militare. I revolver continuano a essere utilizzati da diverse forze di polizia e da privati. Per decenni si è contrapposta la proverbiale affidabilità e sicurezza del revolver, normalmente a sei colpi, ai pericoli di inceppamento e di spari accidentali connessi alla maggiore autonomia di fuoco (minimo 7-8 colpi) e alla rapidità di ricarica (mediante la sostituzione del caricatore) della pistola semiautomatica. Ma le più moderne pistole semiautomatiche - come la Beretta 92, in calibro 9 mm, con un caricatore bifilare da 14 colpi - accoppiano un'affidabilità molto elevata a un elevato numero di colpi, surclassando ampiamente il migliore revolver.
Inoltre, le pistole mitragliatrici, come la MP-5 tedesca o la M-12 italiana, sono diventate molto pi├╣ leggere e compatte e possono sparare a colpo singolo, a raffiche controllate di 3-5 colpi o a raffica continua. Sono alimentate da caricatori contenenti 30 e pi├╣ colpi. Hanno avuto invece poca fortuna le speciali versioni di pistole semiautomatiche modificate per il tiro a raffica: queste armi risultano estremamente difficili da controllare. Le pistole mitragliatrici sono ancora molto diffuse presso le forze di polizia o presso i reparti speciali delle forze armate. Nelle mani di un tiratore addestrato sono utilizzabili per sparare con precisione fino a 150 m, ma negli eserciti sono state soppiantate dai fucili d'assalto. Con l'introduzione del fucile d'assalto, avvenuta in Germania tra il 1943 e il 1944, ci si proponeva infatti di rimpiazzare sia i fucili sia le pistole mitragliatrici.
Può sembrare strano, ma ancora oggi il problema dell'arma da fianco da assegnare al personale che non ha in dotazione il fucile d'assalto è tutt'altro che risolto: la pistola è certamente leggera e poco ingombrante, può essere portata senza problemi e usata con una sola mano; ma in effetti serve a qualcosa solo se viene usata sulle cortissime distanze e da tiratori addestrati.
Per contro, la pistola mitragliatrice è già relativamente pesante e non offre un sostanziale incremento nelle capacità offensive. Presso alcuni eserciti si è tentato di introdurre versioni compatte e molto accorciate dei fucili d'assalto; si tratta di armi sicuramente potenti, ma anche notevolmente pesanti e costose. L'unica vera novità è stata recentemente proposta dalla società belga FN, che ha presentato la rivoluzionaria e compattissima pistola mitragliatrice P90, camerata per una nuova cartuccia in calibro 5,4 mm, di potenza intermedia tra il 9 mm delle pistole e i 5,56 mm dei fucili d'assalto. Ma per il momento quest'arma non ha riscosso un grande successo; infatti, gli eserciti temono gli svantaggi logistici derivanti dall'introduzione di un nuovo calibro e quindi, almeno nel medio termine, le pistole semiautomatiche resteranno in dotazione standard, in attesa di un erede più efficiente.